Bộ trưởng Chiến tranh Hoa Kỳ đầu tiên là Henry Knox.[1]

Trong những năm đầu, từ giữa 1797 và 1800, Bộ Chiến tranh có tổng hành dinh đặt trong một ngôi nhà nằm ở góc Đường số 5 và Đường Chestnut trong thành phố Philadelphia. Năm 1820, tổng hành dinh của bộ được di chuyển vào trong một tòa nhà tại Washington, D.C. ở góc Đường 17 và Đại lộ Pennsylvania, khu định hướng Tây Bắc, gần Nhà Trắng. Tòa nhà Bộ Chiến tranh được thay bằng một tòa nhà mới xây vào năm 1888. Nó hiện nay là Tòa nhà Cựu Văn phòng Hành chính (Old Executive Office Building), được xây trên cùng vị trí của tòa nhà trước đó.

Vào thập niên 1930, Bộ Chiến tranh bị giảm chỗ văn phòng cho Bộ Ngoại giao, và Nhà Trắng cũng đang cần thêm chỗ cho văn phòng. Vào tháng 8 năm 1939, Bộ trưởng Chiến tranh Harry H. Woodring cùng với Quyền Tham mưu trưởng Lục quân Hoa Kỳ là George C. Marshall dời văn phòng của mình vào Tòa nhà Munitions. Tòa nhà này là một nơi tạm bợ được xây dựng trên Khu dạo chơi Quốc gia (National Mall) trong Chiến tranh thế giới thứ nhất. Vào cuối thập niên 1930, một tòa nhà của Bộ Chiến tranh được xây dựng ở góc Đường 21 và Đường C trong khu Foggy Bottom, nhưng khi hoàn thành nó vẫn không giải quyết được vấn đề chỗ văn phòng của bộ và rồi sau đó được dành cho Bộ Ngoại giao.[2]

Khi nhận nhiệm sớ ngay lúc Chiến tranh thế giới thứ hai bùng nổ ở châu Âu, Bộ trưởng Chiến tranh Henry L. Stimson đối diện với tình hình của bộ bị phân tán trong nhiều tòa nhà khắp Washington, D.C. cũng như Maryland và Virginia, và Tòa nhà Munitions cũng bị chật chỗ.[3][4] Ngày 29 tháng 7 năm 1941, Quốc hội Hoa Kỳ cho phép chi tiêu ngân quỹ để xây tòa nhà mới cho Bộ Chiến tranh tại Arlington, Virginia. Tòa nhà này sẽ có sức chứa toàn bộ các ban ngành của bộ[5] Khi Lầu Năm Góc được xây dựng hoàn thành vào năm 1943, Bộ trưởng Chiến tranh rời Tòa nhà Munitions và bộ bắt đầu di chuyển vào trong Ngũ Giác Đài.